New insights into Approximate Bayesian Computation

Approximate Bayesian Computation (abc for short) is a family of computational techniques which offer an almost automated solution in situations where evaluation of the posterior likelihood is computationally prohibitive, or whenever suitable likelihoods are not available. In the present paper, we analyze the procedure from the point of view of k-nearest neighbor theory and explore the statistical properties of its outputs. We discuss in particular some asymptotic features of the genuine conditional density estimate associated with abc, which is an interesting hybrid between a k-nearest neighbor and a kernel method. Index Terms — Approximate Bayesian Computation, Nonparametric estimation, Conditional density estimation, Nearest neighbor methods, Mathematical statistics. 2010 Mathematics Subject Classification: 62C10, 62F15, 62G20. Corresponding author. Research partially supported by the French National Research Agency (grant ANR09-BLAN-0051-02 “CLARA”) and by the Institut universitaire de France. Research carried out within the INRIA project “CLASSIC” hosted by Ecole Normale Supérieure and CNRS. 1 Résumé Le terme anglais “Approximate Bayesian Computation” (abc en abrégé) désigne une famille de techniques bayésiennes ayant pour objet la simulation selon une loi de probabilité lorsque la vraisemblance a posteriori n’est pas disponible ou s’avère impossible à évaluer numériquement. Dans le présent article, nous envisageons cette procédure du point de vue de la théorie des k-plus proches voisins, en nous attachant plus particulièrement à examiner les propriétés statistiques des sorties de l’algorithme. Cela nous conduit à analyser le comportement asymptotique d’un estimateur de la densité conditionnelle naturellement associé à abc, utilisé en pratique et possédant à la fois les caractéristiques d’un estimateur des k-plus proches voisins et celles d’une méthode à noyau. Mots-clés —Approximate Bayesian Computation, Estimation non paramétrique, Estimation de la densité conditionnelle, Méthodes de plus proches voisins, Statistique mathématique. Classification par Sujets Mathématiques 2010 : 62C10, 62F15, 62G20.